Simpson ra đời tại Cavendish, đảo Prince Edward, Canada, là con thứ ba trong gia đình có bốn người con của James Simpson, Jr. và Janet Clark.

Harold H. Simpson đã thiết lập được bản gia phả về các dòng tộc tại Cavendish với tựa đề Cavendish: Lịch sử và Con người, cho thấy dòng họ Clark (họ ngoại của A.B. Simpson) là một trong những gia đình thành lập Cavendish vào năm 1790, cũng như tìm ra rằng A.B. Simpson và Lucy Maud Montgomery, tác giả loạt truyện thiếu nhi nổi tiếng Anne of Green Gables, có cùng một tổ phụ.

Cậu bé Albert được nuôi dưỡng theo truyền thống nghiêm khắc của Thanh giáo và của Giáo hội Trưởng Lão Scotland. Albert tiếp nhận đức tin Cơ Đốc trong một cuộc phục hưng năm 1859 dưới sự dẫn dắt của Henry Grattan Guinness, một nhà truyền bá Phúc âm đến từ Ái Nhĩ Lan.[1]

Simpson đến sống một thời gian ở Chatham, bang Ontario, theo học thần học tại Trường Knox thuộc Đại học Toronto. Sau khi tốt nghiệp năm 1865, Simpson được phong chức mục sư Giáo hội Trưởng Lão Canada.

Lúc 21 tuổi, Simpson nhận lời mời đến làm quản nhiệm tại một nhà thờ lớn gần Hamilton, Ontario, Nhà thờ Trưởng Lão Knox (đóng cửa năm 1971). Tháng 12 năm 1873, ở tuổi 30, Simpson rời Canada đến quản nhiệm giáo đoàn Trưởng Lão lớn nhất thành phố Louisville, tiểu bang Kentucky, Nhà thờ Chesnut Street Presbyterian.

Năm 1880, Simpson được mời làm quản nhiệm Nhà thờ Trưởng Lão đường 13 tại Thành phố New York, ở đó ông xuất bản tạp chí truyền giáo The Gospel in All Lands, tạp chí truyền giáo bằng tranh đầu tiên. Simpson cũng thành lập và bắt đầu xuất bản tạp chí minh hoạ The Word, Work, and World. Năm 1911, tạp chí này đổi tên thành Alliance Weekly, nay là Alliance Life, là tạp chí chính thức của Hội Truyền giáo Phúc âm Liên hiệp.

Quan tâm đến người nghèo, Simpson dần dần rời bỏ giáo hội Trưởng Lão và khởi đầu mục vụ dành cho những người bị ruồng bỏ đang sống trong Thành phố New York.